Sommerfeld học toán và vật lý tại đại học Königsberg (đại học Albertina) ở quê nhà là thành phố Königsberg thuộc Đông Phổ. Thầy hướng dẫn luận văn cho ông là nhà toán học Ferdinand von Lindemann.[1] Ông cũng hưởng lợi do được học với các nhà toán học Adolph Hurwitz, David Hilbert, và nhà vật lý Emil Wiechert.[2] Ông tham gia hội sinh viên Burschenschaft Đức, về sau đã làm mặt ông có một vết sẹo do đấu kiếm.[3] Ông nhận học vị tiến sĩ khoa học năm 1891.[4]

Sau khi nhận bằng tiến sĩ Sommerfeld ở lại Königsberg dạy lớp diploma. Năm 1892 ông vượt qua kì thi toàn quốc để phục vụ một năm trong quân đội tại trung đoàn dự bị đóng ngay Königsberg. Ông hoàn thành nghĩa vụ quân sự tháng 9 năm 1893 nhưng vẫn tình nguyện tham gia quân ngũ tám tuần trong suốt tám năm kế tiếp. Do thể hình khỏe mạnh, có sẹo trên mặt và lại để ria kèm râu kiểu Phổ nên trông ông ấn tượng như thể là một đại tá bộ binh.[3]